iT邦幫忙

2025 iThome 鐵人賽

DAY 14
0
DevOps

PM 的 30 日 DevOps 養成計畫 系列 第 14

速度跑得更快的 Devops - MLOps

  • 分享至 

  • xImage
  •  

在現在 AI 的時代,如果是把 Devops 的精神跟實踐運用到 AI 產品上,就跑出了 MLOps(Machine Learning Operations)。

AI 產品與一般產品不一樣的地方差在需要持續不斷的以數據去訓練模型,且不斷地將更優化過的版本發佈於市場上,這也代表了開發與正式推到市場上讓使用者使用的時間正不斷地變得更短。

MLOps 的概念會建立自動化的 MLOps Pipeline,當有新的數據資源進來時,自動觸發模型開始訓練、測試跟部署,在部署的過程中,也自動建立各個版本的標籤,以便於紀錄個版本的差異。

AI 產品另一個重要的也需要 AB testing,是否將新舊版本同時上線給使用者使用,以觀測使用者的使用狀況,在收集回饋的過程也要注意是否有 AI 幻覺的出現。

在產品上線之後,在維運部分也持續做產品的監測,當使用回饋數據的健康度往下降時,系統會發出警報,進一步是觸發重新訓練的步驟。

與 Devops 相比,MLOps 增加的部分就是「數據」和「模型」,主要的目標就是幫助模型可以更快地學習與更穩定的被使用,PM 也需要更抓緊與時間、市場的競賽速度,才能在搶得先機。


上一篇
基礎建設的自動建造師 - IaC
下一篇
Devops 嚴謹的把關手 - 自動化測試
系列文
PM 的 30 日 DevOps 養成計畫 24
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言